Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku

To, że sztuczna inteligencja coraz śmielej wkracza w każdą sferę ludzkiego życia jest oczywiste. Warto zatem pochylić się nad wpływem nowych technologii nad naszą codzienność, żeby wiedzieć jakie czyhają na nas tu zagrożenia. Temu tematowi poświęcona została najnowsza książka wydawnictwa Szczeliny „Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku" autorstwa Michaela Bhaskara i Mustafy Suleymana.
Tym razem niestety było trudniej niż zwykle, jeśli chodzi o książki sygnowane przez Szczeliny, gdyż z racji swej objętości i niezwykle ambitnego podejścia jej twórców, mam odrobinę wrażenie, że materia została przegadana i przytłoczyła czytelnika ilością treści, w której oprócz niezwykle ważnych faktów, które wręcz przerażają, pojawiają się także niepotrzebne dłużyzny i powtarzania raz już przytoczonych kwestii.
Pomimo tego, chociaż zajęło mi tym razem nieco dłuższą chwilę przyswojenie całej treści, to uważam, że warto mieć świadomość współczesnych zagrożeń, a zatem nawet jeśli materia nie jest łatwa trud włożony w jej zgłębienie przyniesie wiedzę, w jaki sposób funkcjonować w świecie, w którym rozwój sztucznej inteligencji jest nieunikniony, i jakie potencjalne zagrożenia ze strony nowych technologii mogą się tu pojawić. A o tym, że sztuczna inteligencja już dzisiaj ma wpływ na funkcjonowanie społeczeństwa i gospodarki nikogo chyba nie trzeba przekonywać, podobnie jak o tym, że z każdym kolejnym dniem będzie on rósł.
Autorzy, w swej książce kreślą zatem własną wizję przyszłości, w której AI nie tylko przekształca nasze życie, ale również stawia przed nami fundamentalne pytania dotyczące etyki, władzy i przetrwania ludzkości. A że wiedzą oni o czym mówią, gdyż od lat, sami współtworzą programy oparte na wykorzystaniu AI, to tym bardziej przeraża jeśli weźmie się pod uwagę potencjalne zagrożenia.
Bhaskar i Suleyman przekonują, ze pojawienie się AI to tylko jeden z kolejnych stoków rozwojowych w dziejach ludzkości, które od zarania dziejów miały wpływ na postęp cywilizacji, a który w ostatnich latach, wraz z błyskawicznym rozwojem technologicznym, coraz szybciej postępuje. Autorzy nie ograniczają się jednak do technicznych szczegółów; wnikają głęboko w kontekst społeczny i polityczny, pokazując, jak AI zaczyna zmieniać nasze codzienne życie.
Dalej analizują oni sposób w jaki sztuczna inteligencja może oddziaływać na rozmaite sektory gospodarki i jakie wyzwania w związku z tym stoją przed ludzkością. O ile nie demonizują oni możliwości płynących z wykorzystania AI, to jednocześnie wskazują na przykłady zagrożeń, jakie każda innowacja niesie ze sobą, a w związku z tym omawiają również rozmaite dylematy etyczne, jakie wraz z rozwojem sztucznej inteligencji mogą się pojawić.
Najbardziej przerażające scenariusze autorzy rezerwują na koniec książki. Tu pojawiają się nawiązania do deepfake’ów, inteligentnej broni, systemów rozpoznawania twarzy, czy manipulacji genetycznych. To co mnie najbardziej jednak przeraziło to wykorzystanie sztucznej inteligencji w kreowaniu genotypu ludzkiego i potencjalne konsekwencje tworzenia genetycznie modyfikowanych dzieci.
O ile zatem nie ma co bać się od razu możliwości jakie daje ChatGPT, to należy mieć świadomość, że nie tylko na tym sztuczna inteligencja się opiera. Lektura tej książki może się zatem okazać pouczająca zwłaszcza dla tych, którzy zupełnie nie mają żadnego pojęcia o nowych technologiach. Łatwość poznawania tematyki podjętej w książce jest też o tyle ułatwiona, że jej struktura podzielona jest na cztery główne części, co pomaga czytelnikowi śledzić rozwój narracji i stopniowo zagłębiać się w coraz bardziej złożone zagadnienia.
"Nadchodząca fala" to książka, która powinna znaleźć się na półce każdego, kto interesuje się przyszłością technologii i jej wpływem na ludzkość. Bhaskar i Suleyman stworzyli przemyślaną, dobrze udokumentowaną. Książka ta nie tylko informuje, ale również zmusza do zastanowienia się nad tym, jak chcemy kształtować naszą przyszłość w erze dominacji sztucznej inteligencji. Polecam.

To, że sztuczna inteligencja coraz śmielej wkracza w każdą sferę ludzkiego życia jest oczywiste. Warto zatem pochylić się nad wpływem nowych technologii nad naszą codzienność, żeby wiedzieć jakie czyhają na nas tu zagrożenia. Temu tematowi poświęcona została najnowsza książka wydawnictwa Szczeliny „Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat...

Spotkałem się z opinią, że reportaż Michaela Bhaskara oraz Mustafy Suleymana sprawia wrażenie wygenerowanego przez ChatGPT. Uwaga kąśliwa, choć częściowo trafna, ponieważ ich tekst jest nieuporządkowany. Autorzy sięgają po historię, nowinki cywilizacyjne oraz formy sprawowania władzy, aczkolwiek żaden z podjętych wątków nie doczekał się szczegółowego omówienia. Michael Bhaskar i Mustafa Suleyman zagrzebują się w przykładach zastosowań sztucznej inteligencji w różnych obszarach ludzkiej aktywności, przez co trudno im wyjść z tematycznego impasu, aby należycie podsumować poszczególne rozdziały reportażu, które nierzadko wieńczą zapowiedzią nadchodzącej fali. Świadomy czytelnik nie potrzebuje wielokrotnych zapewnień o cieniach przyszłości, ponieważ zdolny jest do krytycznej oceny otaczającego go świata.

„Nadchodząca fala” to próba grania na emocjach odbiorcy poprzez chęć wzbudzenia w nim obaw o kolejne lata. Autorzy snują spekulacje na temat zagrożeń wynikających z rozwoju sztucznej inteligencji, podczas gdy przyszłość jest wielką niewiadomą, zatem należałoby pozostawić czytelnikowi przestrzeń na osobiste rozważania w tym zakresie, a co najpewniej umknęło im w trakcie prac nad reportażem. Michael Bhaskar oraz Mustafa Suleyman są bardzo dobrze zorientowani w tematyce AI, aczkolwiek ich warsztat pozostawia wiele do życzenia. Skłonny jestem twierdzić, że nie otrzymali odpowiedniego wsparcia od pierwotnego wydawcy, którego redaktorzy powinni zasugerować autorom inny podział tekstu, rezygnację z części wątków i rozwinięcie pozostałych zagadnień reportażu. Jego twórcy opierają się na słusznym założeniu o wynalazczości jako przyczynie rewolucyjnych zmian w dziejach ludzkości, a tym samym polaryzacji społeczeństw. Wśród równych zawsze znajdą się równiejsi, którzy w pionierskich rozwiązaniach dopatrzą się metod sprawowania władzy nad innymi.

„Nadchodzącą falę” polecam osobom niezorientowanym w tematyce sztucznej inteligencji, jak również osobom lekceważącym zagrożenia wynikające z takich kwestii jak rekombinacje DNA, ustalanie tożsamości oraz śledzenie aktywności każdej jednostki z dowolnego miejsca na świecie. Być może lektura reportażu skłoni ich do żywej dyskusji na temat nadchodzącej przyszłości, która podobnie jak sam reportaż, wywołuje skrajne emocje.

Spotkałem się z opinią, że reportaż Michaela Bhaskara oraz Mustafy Suleymana sprawia wrażenie wygenerowanego przez ChatGPT. Uwaga kąśliwa, choć częściowo trafna, ponieważ ich tekst jest nieuporządkowany. Autorzy sięgają po historię, nowinki cywilizacyjne oraz formy sprawowania władzy, aczkolwiek żaden z podjętych wątków nie doczekał się szczegółowego omówienia. Michael...

„Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku” Michael Bhaskar, Mustafa Suleyman.
„Nadchodząca fala” Michaela Bhaskara i Mustafy Sulejmana to książka, która budzi wielkie nadzieje i wywołuje spore oczekiwania. Temat sztucznej inteligencji, jej wpływu na współczesne społeczeństwo i przyszłość, jest jednym z najważniejszych i najbardziej aktualnych zagadnień naszych czasów. Jednakże, mimo iż książka dostarcza wielu interesujących informacji, pozostawia pewien niedosyt.
Autorzy w swojej pracy koncentrują się na szerokim spektrum technologicznych innowacji. Opisują, jak algorytmy AI zaczynają dominować w różnych dziedzinach – od autonomicznych maszyn rolniczych po technologię deepfake, a także jak inżynieria genetyczna i technologie nadzoru wpływają na nasze życie. Te zmiany są przedstawiane jako nieunikniona „fala”, która zrewolucjonizuje nasze społeczeństwo w sposób, którego nie jesteśmy w stanie w pełni przewidzieć.
Książka, mimo swojej obszernej tematyki, nie dostarcza jednak wystarczającej ilości konkretów na temat samej sztucznej inteligencji. Znajdziemy dużo miejsca na omawianie historii wynalazków i ich wpływu na ludzkość, co choć ciekawe, sprawia wrażenie, że sztuczna inteligencja jest jedynie jednym z wielu poruszanych tematów, a nie centralnym punktem książki.
Dodatkowo, powtarzające się fragmenty i wprowadzanie tych samych myśli w różnych częściach książki mogą sprawiać, że czytelnik czuje się znużony. W efekcie, mimo autorzy starają się budować napięcie i atmosferę niepokoju wokół nadchodzącej technologicznej rewolucji, momentami traci się to w powtarzalnych treściach.
Nie można jednak odmówić książce wartości edukacyjnej. Książka przedstawia wiele współczesnych problemów technologicznych z różnych perspektyw, co może być bardzo pouczające dla osób niezaznajomionych z tematem. Ważne jest, aby podkreślić, że temat jest istotny i aktualny. Technologia wpływa na nasze życie – od codziennych wygód po globalne zagrożenia.

Podsumowując, "Nadchodząca fala" to książka, którą warto przeczytać, ale która mogłaby być bardziej zwięzła i konkretniejsza. Aktorzy podejmują ważne i aktualne tematy, jednak zbyt często uciekają w hipotetyczne rozważania i powtarzanie tych samych kwestii.

Dla zainteresowanych przyszłością technologii i jej wpływem na ludzkość, książka ta jest jednak wartościowym źródłem informacji i refleksji.

„Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku” Michael Bhaskar, Mustafa Suleyman.
„Nadchodząca fala” Michaela Bhaskara i Mustafy Sulejmana to książka, która budzi wielkie nadzieje i wywołuje spore oczekiwania. Temat sztucznej inteligencji, jej wpływu na współczesne społeczeństwo i przyszłość, jest jednym z najważniejszych i...

to jakiś trend to przewidywanie przyszłości, ale tak naprawdę to wróżenie z fusów kawy i liczenie pieniędzy przez autorów, czy któryś z autorów opisujących naszą przyszłość uprzedził czytelników, że dotknie nas epidemia coivid? albo, że Rosja napadnie na Ukrainę? kończę z tego typu literaturą, bo to naprawdę strata czasu i pieniędzy

to jakiś trend to przewidywanie przyszłości, ale tak naprawdę to wróżenie z fusów kawy i liczenie pieniędzy przez autorów, czy któryś z autorów opisujących naszą przyszłość uprzedził czytelników, że dotknie nas epidemia coivid? albo, że Rosja napadnie na Ukrainę? kończę z tego typu literaturą, bo to naprawdę strata czasu i pieniędzy

Strasznie chaotyczne. Wartościowej treści jest tu może z 20 stron, reszta to lanie wody. Muszę przestać kupować książki Szczelin w ciemno.

Strasznie chaotyczne. Wartościowej treści jest tu może z 20 stron, reszta to lanie wody. Muszę przestać kupować książki Szczelin w ciemno.

Tempo rozwoju sztucznej inteligencji jest o wiele szybsze, niż tempo rozwoju jakiejkolwiek innej technologii w historii. Postęp niesie za sobą zarówno nieskończone możliwości, jak i ogrom zagrożeń, których nie powinniśmy bagatelizować.

Autorem najnowszej książki Szczelin jest Mustafa Suleyman, współzałożyciel Deepmind i Inflection AI, przedsiębiorstw zajmujących się sztuczną inteligencją. Bardzo lubię takie książki pisane przez ekspertów w swojej dziedzinie - ich doświadczenie jest pełne ciekawych historii, ich wiedza jest obszerna i aktualna i można się od nich wiele nauczyć. Niewątpliwie tak było i w tym przypadku, jednak mnie „Nadchodząca fala” trochę zawiodła.

Mając na uwadze to, kim jest autor, zaskakujący jest fakt, że sztucznej inteligencji jest w tej książce tak mało. Jest to raczej kompendium wiedzy na temat technologii w ogóle. Bardzo dużo miejsca Suleyman poświęca historii wynalazków i odkryć w dziedzinach takich jak np. rolnictwo, transport, medycyna, informatyka czy broń nuklearna oraz temu, jaki wpływ miały one na funkcjonowanie świata. Wszystko po to, by uświadomić czytelnikowi, że raz uwolniony postęp wymyka się wszelkim próbom kontroli i nie można go powstrzymać. Nadchodząca fala będzie jeszcze większa, nieporównywalnie bardziej potężna i zmieni świat w sposób, jakiego nie potrafimy sobie wyobrazić. Autor przypomina nam o tym co kilka stron, budując atmosferę grozy rodem z horroru, co jest dość dziwnym zabiegiem biorąc pod uwagę fakt, że sam przyczynił się do rozwoju sztucznej inteligencji.
Powtórzenia i lanie wody sprawiają, że książka jest dłuższa niż być powinna, w pewnym momencie staje się nużąca. A szkoda, bo gdy na chwilę zapomnimy o wyżej wymienionych wadach, a skupimy się na zaletach, okazuje się, że mogłaby to być całkiem interesująca lektura o technologii. Może nie odkrywcza i przełomowa, ale warta uwagi.

Instagram: @ostatnirozdzial

Tempo rozwoju sztucznej inteligencji jest o wiele szybsze, niż tempo rozwoju jakiejkolwiek innej technologii w historii. Postęp niesie za sobą zarówno nieskończone możliwości, jak i ogrom zagrożeń, których nie powinniśmy bagatelizować.

Autorem najnowszej książki Szczelin jest Mustafa Suleyman, współzałożyciel Deepmind i Inflection AI, przedsiębiorstw zajmujących się...

„Nadchodząca fala” jest jedną z tych książek do czytania których usiadłam z myślę, że oto dowiem się czegoś nowego, a kończę czytać z przeświadczeniem, że o tym wszystkim już czytałam.

Autor omawia zagrożenia związane z nową technologią, ale mam wrażenie, że z perspektywy osoby, która będzie beneficjentem tych nowych technologii, więc raczej są to filozoficzne rozważania, z ominięciem bardziej niewygodnych tematów.

Weźmy omawiany przykład destabilizacji państwa, z jakich powodów może nastąpić? Np. z powodu braku dostępności do wody dla ludzi, braku jedzenia i nie dlatego, że jakiś haker zatrzymał łańcuch dostaw (tak jakby sugerował autor),ale z powodów, które możemy obserwować już aktualnie. Jedna rozmowa z ChatGPT zużywa 0,5 l wody, użytkowników ChatGPT na ten moment jest 200 mln, jeżeli każdy chciałby zamienić z Chatem słówko zużyjemy 100 mln litrów wody? to są wielkości niewyobrażalne, człowiek przez całe swoje życie potrzebuje 420 tyś litrów wody do picia. Tymczasem w Kalifornii siedziby Google (która potrzebuje 7 mln litrów wody dziennie, aby chłodzić serwery) władze chcą wprowadzić regulacje dotyczące korzystania z wód gruntowych dla gospodarstw rolnych, ponieważ obawiają się suszy. W Urugwaju, gdzie Google chciało budować swoją serwerownie wybuchały protesty, ponieważ ludność obawiała się braku dostępności do wody. A oprócz Google mamy też serwery Amazona i pozostałych firm technologicznych.

Owszem wizja wyprodukowania nowego wirusa w piwnicy jest przerażająca, ale należałoby zadać sobie pytanie dlaczego jakiś człowiek, będzie tak sfrustrowany, że będzie chciał użyć tego wirusa?

A co z przyrodą? Osobiście najbardziej przeraża mnie wizja, w której dziesiątkujemy populacje pszczół doprowadzając do ich wyginięcia (co już się dzieje) i nie będzie komu zapylać roślin, aby odradzały się co roku i dawały plony. I jakoś nie uspokaja mnie stwierdzenie, że nie ma się czym martwić, bo Wal-Mart już opatentował pszczołę – robota, bo nie potrzebuję wybujałej wyobraźni, aby sobie wyobrazić, jak ta pszczoła zapyla konkretne pola wskazane przez producenta, a reszta zamienia się w pustynie.

I zanim zostanę okrzyknięta przeciwniczką technologii, to nią nie jestem, ale uważam, że najpierw powinniśmy zadbać o to co mamy jako ludzkość, czyli planetę, a nie wycinamy lasy i zatruwamy rzeki np. w Kongo, aby wydobyć Kobalt, potrzebny do produkcji baterii z tekstem, że przecież robimy to dla dobra planety (kobalt jest używany m.in. w elektrycznych samochodach). Bo jak już skończymy tak troszczyć się o planetę to czeka nas zniszczony kontynent i gigantyczny kryzys emigracyjny.

„Nadchodząca fala” jest jedną z tych książek do czytania których usiadłam z myślę, że oto dowiem się czegoś nowego, a kończę czytać z przeświadczeniem, że o tym wszystkim już czytałam.

Autor omawia zagrożenia związane z nową technologią, ale mam wrażenie, że z perspektywy osoby, która będzie beneficjentem tych nowych technologii, więc raczej są to filozoficzne rozważania,...

AI


Konstrukcja człowieka utrudnia ocenę wagi zdarzeń, które go przekraczają. Tak nas wyposażyła biologia. Wiele wytworów cywilizacyjnych nas przewyższa intencjonalnie, bo do tego zostały stworzone. Technicznie jednak dopiero AI zdobywa możliwość ‘samorozwoju’ bez naszej kontroli . Dotychczas ‘na upartego’ można było ignorować proces, który w wyniku miniaturyzacji krzemowej zmieniał świat. Mustafa Suleyman należy do grona ludzi, którzy odpowiadają za zjawisko będące już nie ciekawostką czy zbiorem oprogramowania i sprzętu komputerowego do ułatwiania nam życia. Jako manager w kilku kluczowych firmach Doliny Krzemowej przyczynił się do konieczności przewartościowania możliwych trendów w globalizacji. Wraz z Michaelem Bhaskarem (*) w 2023 napisał zaangażowaną społecznie książkę „Nadchodząca fala” dla przybliżenia blasków, cieni i poważnych zagrożeń, które ze sobą niesie AI. Tekst obarczony jest licznymi mankamentami, ale i dość precyzyjnie dotyka chyba bardzo ważnych kwestii.

W książce na szczególną uwagę zasługuje przede wszystkim opis cech AI, które sprawiają że może być niebezpieczna. Jest ekspansywna, powabna komercyjnie, atrakcyjna w wypełnianiu ludzkich braków formalnych, coraz bardziej powszechna, uzależniająca, pozornie niewinna, rozproszona, prawnie nieskodyfikowana, na poziomie państw przemilczana i zupełnie pozbawiona aksjologii, która część ludzi powstrzymuje przed przestępstwami. W skrócie książkę można podzielić na kilka grup tematycznych. Najciekawsza dotyczy pół-techniczych opisów procesu rozwoju AI w XXI wieku. Tylko nieco słabiej wypadły analizy kluczowych pól zastosowania AI oraz dość szeroko podane jej atuty i dobrodziejstwa. Zbyt rozwlekle Suleyman poprowadził opowieść w obszarze możliwych zagrożeń. Sama końcówka tekstu, jako próba przybliżenia wymaganych kroków do zabezpieczenia się ludzi przed negatywnymi konsekwencjami rozwoju AI wydała mi się ważna, choć wyłożona dość nieatrakcyjnie.

Tytułowa fala, to czekające nas niebezpieczeństwo związane z niekontrolowanym wzrostem możliwości AI. Posiłkując się analogiami z historii ludzkiej cywilizacji, Suleyman antycypuje przyszłość dokładając fakty niespotykanego tempa rozwoju sztucznej inteligencji z przykładami robiącymi wrażenie:

„W 1958 roku firma Fairchild Semiconductor sprzedała sto tranzystorów po sto pięćdziesiąt dolarów za sztukę – dziś urządzenia te są produkowane w tempie dziesiątek bilionów na sekundę, po jedną miliardową dolara za egzemplarz: to najszybsze i największe pod względem zasięgu upowszechnienie w historii.”

W tym kontekście wydaje mi się, że autor zbyt płytko przepracował mechanizmy skali. Nie chodzi o to, że AI będzie szybciej coś liczyła, łatwiej zbierała elementy wiedzy i informacji, ale że zasobami żonglowanymi w nanosekundach wyeliminuje nasze walory estetyczno-emocjonalne zastępując własnymi (a dokładniej – my je przyjmiemy jako własne). Jednocześnie przedsiębiorca bardzo dobrze opisał własne napięcie ostatnich lat – mieszankę ekscytacji i rosnącego przerażenia – z możliwości LLM-ów (systemów językowych jak ChatGPT). Przy okazji sformułował sporo ciekawych ogólnych zasad, które budują ten pozorny cud interaktywnej inteligencji chatbotów wynikający z połączenia w branży IT sieci neuronowych i głębokiego uczenia się z sekwencyjnością ludzkich języków. Szeroki wachlarz bezpośrednich konsekwencji dla człowieka zanurzonego w Internecie, to ciekawie skomponowana wizja. Ponieważ Suleyman taki drobny choć niepokojący przykład możliwości AI opisał w dość długim wywodzie, to przedstawię próbkę czekającej nas hipotetycznej sytuacji (jak sugeruje autor, za kilka lat w związku z rosnącymi możliwościami podejmowania decyzji kompleksowych, kreatywnych i wielopoziomowych przez AI ) w wersji skompresowanej:

<AI zarób dla mnie milion $ na Amazonie wydając w tym celu co najwyżej 100 tysięcy $ w jak najkrótszym czasie, wykorzystując luki w prawie patentowym dowolnego kraju. Zbuduj i zaimplementuj w tym celu w pełni zgodne z prawem formalne kroki. Zastosuj drapieżną kampanię marketingową sondując ludzkie trendy, preferencje i słabości konsumpcyjne.>

W zasadzie ten przykład mnie przeraził. ALE. Biorąc pod uwagę kilka faktów, które umykają korporacyjnym Harpagonom, warto się zastanowić nad sytuacją, gdy miliard ludzi jednocześnie ‘poprosi AI’ o taki prezent finansowy. Poza tym chciwość sugeruje, że nim ‘lud’ uzyska dostęp do możliwości zarobkowania w ten sposób, wtajemniczeni w możliwości skrupulatnie sami z tego skorzystają. A jak wiadomo pieniądze nie rodzą się z resztek jedzenia i powietrza (jak pierwsi przyrodnicy zakładali o muszkach owocowych),a jeśli już to w inflacyjnym galopie, czyli bez wartości.

Z kolejnymi rozdziałami pojawiają się zagrożenia różnej natury – na poziomie bezpieczeństwa (broń ABC),państwowych niedemokratycznych reżimów, sekt światopoglądowo ukierunkowanych na osiąganie celu wszelkimi środkami, rewolucji w obszarze aktywności zawodowej ludzi, itd. Zgadzam się z autorem i jego opisem świadomości, która nie jest źródłem zasadniczego niebezpieczeństwa:

„W tej chwili nie ma znaczenia, czy system jest samoświadomy, zdolny do rozumienia ani czy ma inteligencję podobną do ludzkiej. Liczy się tylko to, co ten system potrafi. Jeśli skupimy na tym uwagę, naszym oczom ukaże się prawdziwe wyzwanie: systemy z każdym dniem potrafią coraz więcej.”

Wszystkie cechy fali AI stanowią źródło możliwości ale i niebezpieczeństwa jeżeli, jak pokazuje autor, nie dojdzie szybko do ponadnarodowych ustaleń. Zgadzam się z trafnym porównaniem do przejścia fazowego, które w fizyce rozumie się jako niemal natychmiastową nieciągłość i rekonfigurację obiektu w stan o innych właściwościach (np. krzepnięcie wody). Wspomina o procedowanym tzw. ‘AI Act’ (**),który od strony formalnej ma być prekursorskim przykładem jednego z wielu potrzebnych nam zabezpieczeń systemowych przed niekontrolowanym bytem sprzecznym z interesami jednostek i zbiorowości demokratycznych.

Czytanie nieco utrudniała mi megalomania Suleymana, który z manierami typowymi dla korporacyjnego wyższego kierownictwa, kreśli wizje w obszarach, w których jego kompetencja eksponencjalnie gaśnie. Stąd fragmenty o AI wobec komputerów kwantowych i bioinżynierii traktuję wręcz z przymrożeniem oka. Na szczęście poświecił tym zagadnieniom niewiele miejsca. Pewne ekstrapolacje, próby zgadywania kierunków transformacji rynku wydają mi się zbyt mgliste. Nie biorąc pod uwagę zjawisk emergentnych, kryzysu zasobów pierwiastków rzadkich, klimatycznych uwarunkowań i niezbędnej energetycznej bazy dla AI (***),zbyt wiele zmiennych pozostawia w stanie przypuszczeń.

„Nadchodząca fala” ma walor informacyjny. Jest w dużej części zestawem pożądanych kroków do wykonania przez każdego wobec AI, apelem do decydentów o głęboki namysł i budowanie mechanizmów zabezpieczających przed niekontrolowaną ekspansją sztucznej inteligencji. Suleyman uważa, że teraz świat nie jest gotowy na najbardziej prawdopodobny kierunek ewolucji AI. Stad zachęca do wysiłku by ten stan zmienić. Trochę nie wprost buduje nieciekawy obraz korporacji, które koszty społeczne narastające równolegle do własnej prosperity ignorują ostentacyjnie:

„Tak silne procesy koncentracji władzy umożliwią wielkim, zautomatyzowanym megakorporacjom transferowanie wartości z kapitału ludzkiego – pracy – do czystego kapitału. Jeśli zsumujemy wszystkie nierówności wynikające z takich procesów koncentracji, otrzymamy kolejne wielkie przyspieszenie i strukturalne pogłębienie istniejącego pęknięcia.”

„Współczesna cywilizacja wypisuje czeki dające się realizować wyłącznie za sprawą nieustannego rozwoju technologicznego. Cały jej gmach opiera się na idei wzrostu gospodarczego w długiej skali czasu.”

W pewnym stopniu książka jest przegadana. Sporo przemyśleń obarczona jest moimi znakami zapytania. Ponieważ jednak jest dość aktualna i zawiera opis ‘człowieka z wewnątrz’, uznaję czas poświęcony lekturze za niezmarnowany. Szczególnie zachęcałbym do jej lektury tych, którzy ufnie patrzą w przyszłość możliwości AI, zwłaszcza jeśli atrakcyjność pozornie darmowej dostępności do ‘fajnych narzędzi budujących ego’ wymienili za prywatność i prawo do trenowania własnego mózgu niezależnie od możliwości dostępnych smartfonem. Jest nad czym myśleć.

DOBRE z minusem – 6.5/10

=======

* Ponieważ sam Suleyman często pisze w pierwszej osobie, a i okładkowa wielkość czcionki nazwiska współautora sugeruje jego mniejszy wkład, potraktuję byłego szefa DeepMind za właściwego autora publikacji.

** Książka jest nieaktualna (bo doprowadzona do połowy 2023, co brzmi dziwnie, ale w tej tematyce dekady kompresują się do miesięcy) i zawiera informacje że prace nad pierwszym tego typu kompleksowym uregulowaniem trwają. Tłumacz dopowiedział, że 13.03.2024 Parlament Europejski zatwierdził AI Act. A my wiemy, że 21.05.2024 Rada EU przyjęła te przepisy. Teraz potrwa z … 2 lata, gdy wejdą w życie. Pól żartem – może być tak, że sama AI zdąży się tak rozwinąć, że w dużym stopniu te przepisy będą nieadekwatne.

*** Kilka miesięcy temu systemy LLM, które ‘zasysają’ dane do szkolenia się, potrzebowały tyle prądu, co zużywa cała Holandia. W takim tempie zapotrzebowania na zasoby, by utrzymać wykładniczy postęp, ‘za chwilę’ będzie wymagać czegoś, co wykracza poza fizykę, taką jak ją rozumiemy. Do tego jednak nie jest tak, że AI można wydać polecenie: ‘zbuduj sobie narzędzia do pobierania ze Słońca wystarczającej ilości energii’.

AI


Konstrukcja człowieka utrudnia ocenę wagi zdarzeń, które go przekraczają. Tak nas wyposażyła biologia. Wiele wytworów cywilizacyjnych nas przewyższa intencjonalnie, bo do tego zostały stworzone. Technicznie jednak dopiero AI zdobywa możliwość ‘samorozwoju’ bez naszej kontroli . Dotychczas ‘na upartego’ można było ignorować proces, który w wyniku miniaturyzacji...

Otwierająca oczy na zagadnienia nowej technologii i AI, warto.

Otwierająca oczy na zagadnienia nowej technologii i AI, warto.

Wiem, dlaczego ta książka została wydana. Na miejscu Szczelin zrobiłabym to samo. Jednak czy ta książka to przyjemna lektura, to już zupełnie inny temat.

Kiedy rzucimy kamień do jeziora, to na jego tafli powstanie mnóstwo załamujących się fal. Im dalej od centrum zdarzenia, tym fale zataczają coraz szersze kręgi. Takie są fakty i nikt z tym nie dyskutuje. Można oczywiście na nowo omawiać i tłumaczyć działanie koła. Ale czy to jest koniczne? Autor powtarza w kółko te same zagadnienia i wyjaśnia kwestie, z mojego punktu widzenia, oczywiste. Dodatkowo pisze pod tezę i czasem manipuluje faktami, a papier, jak widomo, przyjmie wszystko.

Prognozuje, spekuluje, a czasem wciela się w profetą.
Gwałtowny rozwój technologiczny, sztuczna inteligencja, biotechnologia, robotyka i państwa narodowe, temu poświecą najwięcej uwagi. Zastanawia się w którym kierunku pójdzie rozwój technologii? Czy jesteśmy na niego gotowi? Z jakimi zagrożeniami się wiąże i jakie daje szanse?

Jako filozofka z wykształcenia, dostrzegam w tym tekście wiele problemów do rozwiązania i wiele kwestii pod refleksję. Zastanawiam się nad świadomością, a także decyzyjnością i celowością działania maszyn, zasadnością personifikowania komputerów, tempem postępu i jego granicami, a także po co, na co i dlaczego. Jednak jako zwykła czytelniczka zadaję sobie rudymentarne pytanie: po co to wszystko tak komplikować? Sądzę, że ten tekst można odchudzić zachowując jego trzon. W tej ilości zdań gubi się trochę sens, tracimy z oczu clue. Naszpikowany jest ciekawostkami, ale nie jest łatwo go przyswoić.

Wiem, dlaczego ta książka została wydana. Na miejscu Szczelin zrobiłabym to samo. Jednak czy ta książka to przyjemna lektura, to już zupełnie inny temat.

Kiedy rzucimy kamień do jeziora, to na jego tafli powstanie mnóstwo załamujących się fal. Im dalej od centrum zdarzenia, tym fale zataczają coraz szersze kręgi. Takie są fakty i nikt z tym nie dyskutuje. Można oczywiście...